Cha là Bà La Môn, làm Đà Ngưu đô úy. Duyệt vốn lớn lên ở Hà Tây. Thích đi săn, giỏi cưỡi ngựa bắn cung. Vào lúc Lục trấn khởi nghĩa, quy thuận Nhĩ Chu Vinh. Vinh tiến làm Đô đốc phủ trường lưu tham quân, ít lâu sau dời sang làm Đại đô đốc.

Đầu thời Hiếu Trang đế, được ban chức Chinh tây tướng quân, Kim tử quang lộc đại phu, phong Bách Nhân huyện Khai quốc hầu, thực ấp 500 hộ.

Khi Nhĩ Chu Thiên Quang thảo phạt Quan Tây, Vinh lấy Duyệt làm Hữu sương đại đô đốc cho Thiên Quang, quan chức như cũ. Tây phạt thành công, giữ nguyên chức tướng quân, ban chức Thiện Châu thứ sử, còn lại như cũ.

Sau khi Vinh bị giết, cũng theo Thiên Quang xuống Lũng. Nguyên Diệp lên ngôi, được ban chức Xa kỵ tướng quân, Vị Châu thứ sử, tiến tước làm công, đổi phong Bạch Thủy quận, tăng ấp 500 hộ.

Khi Thiên Quang tiến về Lạc Dương, sai Duyệt coi việc Hoa Châu. Thiên Quang hưởng ứng Nhĩ Chu Triệu, Duyệt cùng Hạ Bạt Nhạc xuống Lũng ủng hộ Cao Hoan, đến Ung Châu thì liên quân Nhĩ Chu đã bại.

Năm Vĩnh Hi đầu tiên (532), gia Khai phủ, đô đốc Lũng Hữu chư quân sự, vẫn làm Tần Châu thứ sử.